keras使用激活层而不是激活参数

同一层 - 不同的激活 - 可以很容易地想象一个网络,您希望将不同的激活应用于同一输出.没有Activation它是不可能的.

在激活之前需要输出 - 例如在暹罗网络中,您正在使用softmax最终激活来训练您的网络- 但最终 - 您希望具有所谓的logits- 反向softmax功能.没有额外的Activation层可能很困难.

显着性图:在显着性图中 - 类似于前一点中的内容 - 在激活之前还需要输出以便计算梯度 - 而Activation不是不可能.